律师视点 | 黄斌：元宇宙法律篇（十五）——打造元宇宙合规之算法相关法律问题探析

黄  斌

北京德和衡（深圳）律师事务所

高级联席合伙人

摘要：2021年是元宇宙元年，Roblox在招股书中提出了元宇宙的概念，Facebook直接更名为Meta（元宇宙）。人民日报评论微信公众号发文称“元宇宙概念的走红,背后有着相应的技术支撑和社会生活因素。”，新华社发文指出“元宇宙有可能激发数字经济更大的活力，甚至可能刺激新一轮的科技革命，带动从现实到虚拟多个产业进一步潜力挖掘！”，武汉、合肥、成都、上海市徐汇区、深圳市福田区均将元宇宙写入2022年政府工作报告，南昌准备设立元宇宙试验区。浙江省数字经济发展领导小组办公室印发《关于浙江省未来产业先导区建设的指导意见》，提出构建包括元宇宙等领域为重点的未来产业发展体系。元宇宙应当是一个现实世界与虚拟世界相互映射的经济系统，以虚实融合的方式形成现实世界和虚拟世界的相互映射。元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。

关键词：元宇宙 算法治理 元宇宙合规 算法黑箱 算法歧视 信息茧房

2021年是元宇宙元年，Roblox在招股书中提出了元宇宙的概念，Facebook直接更名为Meta（元宇宙），字节跳动90亿元天价收购国内VR行业头部厂商Pico，百度推出元宇宙社交平台“希壤”，网易伏羲发布沉浸式活动系统“瑶台”，微软花费687亿美元收购美国游戏巨头动视暴雪并宣布进军元宇宙，2022年2月，美国元宇宙技术公司TerraZero Technologies在Decentraland上完成全球首笔元宇宙住房抵押贷款。人民日报评论微信公众号发文称“元宇宙概念的走红,背后有着相应的技术支撑和社会生活因素。”，新华社发文指出“元宇宙有可能激发数字经济更大的活力，甚至可能刺激新一轮的科技革命，带动从现实到虚拟多个产业进一步潜力挖掘！”，武汉、合肥、成都、上海市徐汇区、深圳市福田区均将元宇宙写入2022年政府工作报告，南昌准备设立元宇宙试验区。浙江省数字经济发展领导小组办公室印发《关于浙江省未来产业先导区建设的指导意见》，提出构建包括元宇宙等领域为重点的未来产业发展体系。元宇宙应当是一个现实世界与虚拟世界相互映射的经济系统，以虚实融合的方式形成现实世界和虚拟世界的相互映射，形成一种“你中有我，我中有你”的全新生活方式，提升人的体验、效率和更多无限可能。元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。

一、什么是元宇宙

Roblox是全球UGC游戏创作平台及互动社区，其在招股书中列出了元宇宙的8个特征：身份认知、社交、沉浸感、随时随地、多样性、低延迟、经济、文明。元宇宙是以VR、AR、MR、XR、AI、区块链、GPU、数字孪生、云计算、边缘计算、脑机接口等技术为基础，通过游戏、社交、虚拟人、NFT、虚拟货币、工业仿真、数字城市等应用构成的下一代互联网生态。元宇宙应当是一个拥有海量用户创作内容、物理世界和社交关系的数字化呈现、原生于数字世界的虚拟资产价值显现、三维沉浸式体验、现实世界与虚拟世界相互映射的经济系统，在该经济系统中人们可以劳动、创作获得回报，可以投资、交易获得利润，形成与现实世界类似甚至一样的经济文化繁荣。元宇宙应当是建立在各式开源软件、标准和协议基础上开放的各式数字化宇宙，各式元宇宙之间可能相互兼容也可能相互碰撞亦有可能相互共存。

元宇宙是继PC互联网、移动互联网之后的第三代互联网，能够给用户带来从二维的平面视觉、听觉体验进展到包含空间性维度的三维沉浸式、交互式立体体验，包括视觉、听觉、触觉、味觉、嗅觉等多感官维度体验，是人类未来的数字化生存方式。该数字化存在并不是和现实世界分离，也不是和现实世界平行的虚拟世界，而是以虚实融合的方式形成现实世界和虚拟世界的相互映射，形成一种“你中有我，我中有你”的全新生活方式，提升人的体验、效率和更多无限可能。

二、算法的发展历程

算法，是区块链、人工智能、自动化决策等技术的内部规则，已应用到数字城市、智慧医疗、智能制造等诸多应用场景，是打造元宇宙合规的核心要素。

算法技术最早起源于1940年代后期，1950年艾伦·图灵发表了一篇论文描述了第一个机器翻译算法，并发明了图灵机让其执行被定义的算法任务。

2014年5月，美国白宫发布了《大数据:抓住机遇，保护价值》报告，该报告认为：受数据来源的特定性和算法设计者主观意图的影响，算法自动化决策往往会构成隐性偏见，从而系统性地减少个人获得信贷、就业和教育的机会。

2017年美国计算机协会美国公共政策委员会发布了《算法透明性和可问责性声明》，希望使用算法决策的系统和机构在外部问责方式下，对算法的过程和特定的决策提供解释。

2018年1月，纽约市通过《自动化决策特别工作组法》，对政府使用的各种算法进行监管。

2018年5月，欧盟出台《通用数据保护条例》，首次在立法中提出和创设了算法解释权，并试图通过算法解释权来确保算法透明原则的实现。

2019年2月,加拿大政府出台《关于自动决策的指令》系统化创建算法影响评估指标。

2019年4月，美国国会引入《2019年算法问责法案》，该法案采用了影响评估的机制，强制要求相关实体针对高风险自动决策系统进行自动决策系统影响评估和数据保护影响评估。

2019年4月，欧洲议会研究服务机构发布《算法问责及透明度监管框架》，就算法及其在自动化决策系统中的应用快速增长提出了全面的监管框架。

2020年2月，欧盟发布《人工智能白皮书—通往卓越和信任的欧洲路径》，提出构建“卓越生态系统”和“信任生态系统”。

2020年4月，美国联邦贸易委员会发布的《人工智能和算法运用》指出：意图良好的算法可用于做出积极的决定，但结果可能会无意间不成比例地影响特定的少数群体。

2020年7月，新西兰政府出台全球首个国家层面的《算法章程》，该章程规定政府机构在采用可能对社会大众产生重大影响的算法技术之前如何使用算法。

2020年12月，欧盟公布了《数字服务法案》草案，要求提高在线平台透明度，对平台推荐算法进行审核，防止滥用平台权利。

2021年4月，欧盟发布世界范围内第一份综合性《人工智能法案》，采取了四类风险分级方法，对不同风险级别的人工智能系统使用采取不同的限制措施。

2021年9月，国家互联网信息办公室等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》。

2021年12月31日，我国第一部以算法推荐服务为规制对象的部门规章《互联网信息服务算法推荐管理规定》正式颁布。

三、算法的概念与含义

元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。算法时代，是一个由政府机构、社会团体、商业平台等基于大量数据利用并通过算法进行自动化决策的时代，是广泛应用在医疗、教育、就业、金融等行业决策的时代。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。随着算法的日益广泛应用，算法已经成为促进政治、经济、文化和社会发展的工具。算法，简而言之就是“数据处理活动”，收集处理数据，挖掘数据价值，涵盖了数据的生成、采集、存储、转换、处理和输出的全过程。算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。

政府机构、社会团体、商业平台等将算法内嵌在健康码、个人征信、风险评估、金融风控、智能安防、公共卫生防治等应用场景中，可以支配数据流动挖掘数据价值并构建新的社会秩序。算法，已经不是纯粹的的计算机代码或指令，不再是简单的数据处理工具，而是被政府机构、社会团体、商业平台等预设了其利益或偏见的不透明自动化决策系统。“算法滥用”，即算法的不正当使用，借助算法的工具属性和算法“技术中立”的本质属性，将其利益或偏见嵌入到算法运行的各个微观层面，嵌入到新生产生活资料引发的经济秩序和社会秩序重构，可能对公民权利、社会秩序、政治权力体系等造成一定的冲击。算法治理，就是对政府机构、社会团体、商业平台等控制算法的人采集、传输、分类、选择、分析、评估、控制数据方式的治理，是对算法自动化决策系统本质方面的深入理解，也是对社会秩序的一种治理。

四、算法黑箱 算法歧视 信息茧房

1、算法黑箱

算法，是一个数据处理的自动化决策系统，其处理过程通常以计算机代码或指令的形式呈现，且算法主体以外的人通常无从知晓，仅留行为规则对外可见，俗称“算法黑箱”。所谓的算法，即计算机代码或指令，其为算法设计者人为设计而成的，并为算法使用者在特定的应用场景中使用。简而言之，再复杂的算法都是由诸个小的计算机代码或指令组合或调用而成，小的计算机代码或指令组合或调用的程序不同可以得出不同的决策结果；同时，算法的决策结果受参数设置、消费者画像、决策规则等因素影响，而上述因素均是由算法设计者和算法使用者控制和决定的。

中国政法大学民商经济法学院李扬教授认为：从技术上看，推荐算法的设计本身完全属于黑箱操作，对著作权人及其作品充满了各种精致的“算计”，且不排除推荐算法设计过程中，对著作权人的作品进行复制并以此构建内容库的可能性。根据权利义务对等原则，推荐算法的利用者对算法推荐的内容，理应负担更高的注意义务。西南政法大学知识产权学院易健雄教授认为：网络服务提供者以算法技术主动向用户推送内容链接或发布内容信息的，应就其主动推送或发布的信息承担注意义务；知道某个侵权行为存在的，对已知作品的其他类似被侵害行为负有注意义务；对版权人事先提供的供版权过滤比对的权源性作品负有更高的注意义务。注意义务标准的提高，并非无端加重网络服务提供者的负担，而是‘能力越强，涉入越深、利益越大、责任越重’的必然要求。

在全国首例算法推荐案北京爱奇艺科技有限公司（以下简称“爱奇艺公司”）诉北京字节跳动科技有限公司（以下简称“字节公司”）侵害《延禧攻略》信息网络传播权一案中，爱奇艺公司系在线视频平台“爱奇艺”的经营者，经授权依法享有热播影视作品《延禧攻略》(以下简称延剧)在全球范围内独占的信息网络传播权，并为此支付了巨额的版权费用，有权针对侵权行为依法进行维权。字节公司未经授权，在延剧热播期间，通过其运营的“今日头条”iOS和安卓版手机应用程序(以下合称今日头条App),利用信息流推荐技术，将用户上传的截取自延剧的短视频(以下简称涉案短视频)向公众传播并推荐，导致播放量极高，其中单条最高播放量超过110万次。

法院认为：对基于协同过滤算法的涉案信息流推荐技术的应用，仅仅是实现短视频在今日头条App中从上传到最终推送至用户进行浏览的这一过程中的部分环节。在“初审一冷启动一正常推荐一复审”的全部流程中，算法推荐尽管是实现服务不可或缺的重要部分，但绝不是全部。因此，即使通过算法推荐识别短视频具体内容不具有技术可行性，但对于允许哪些短视频进入被算法推荐的范围，如何设置和优化算法推荐的具体应用方式，以及如何将已经进入推荐范围的侵权短视频纳入复审环节以避免其被大范围、长时间地传播等方面，字节公司仍可以通过在其服务和运营的相应环节中施以必要的注意、采取必要的措施加以完善。至于具体应当采取哪些措施，法院不宜、也无法直接作出要求，应交由字节公司根据其服务和用户等实际情况制定相应策略，自主进行决定，并在个案中验证其实际效果，即是否能够实现及时、有效制止和预防明显的侵权行为和后果。正如字节公司自已在《3分钟了解今日头条算法原理(科普版)》视频中所言：算法分发并非把所有决策都交给机器，我们会不断纠偏、设计、监督并管理算法模型，希望能让更多的人理解算法，并共同参与到算法模型的制定中来，让算法为社会创造更大的价值。字节公司不仅仅是信息存储空间服务，而是同时提供了信息流推荐服务，理应对用户的侵权行为负有更高的注意义务。最终，字节跳动公司的涉案行为构成帮助侵权，并判定赔偿原告经济损失150万元及诉讼合理开支50万元，共计200万。

2、算法歧视

算法，即计算机代码或指令，是由算法设计者设计而成的，然而算法设计者的知识背景和生长生活经历总是在不经意间融入整个设计及运行过程，算法设计者的价值偏向及其对算法方法的选择均影响到算法的公平公正，关系到是否包含社会歧视与不公。不同的算法使用者有不同的利益，在算法应用中包含着不同的价值判断，更多时是以自身利益出发来选择参数设置、制定消费者画像及决策规则，必然形成一定意义上的社会歧视与不公。另外，下述行为也有可能构成社会歧视与不公：将浏览次数、支付意愿、支付能力、依赖程度、交易频次、交易时使用的终端设备品牌等作为与消费者进行交易的条件参数，使用有违社会公德、歧视性、偏见性用户标签，对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇，在选取处理数据的样本取量过小进而忽略少数群体的数利益诉求，数据不及时更新或偏见数据的持续使用。

在欧洲算法歧视第一案“意大利户户送有限责任公司算法歧视案”中，事实部分：意大利户户送有限责任公司使用数字平台模式经营送餐到家的外卖业务，外卖骑手使用自助预定系统来预定下周的工作时间和区域，只有评分排名前15%的外卖骑手才可以进入平台预定工作时间。数字平台对外卖骑手依据可靠性和参与性两个参数来评分，决定外卖骑手的工作时间和区域。意大利总工会认为，平台算法在对外卖骑手进行评分时，没有考虑外卖骑手可能因疾病等合法原因导致评分降低，进而失去优先选择工作条件的机会，具有集体歧视性。

法院认为：根据2003年第216号法令第2条，该条规定了直接歧视与间接歧视，直接歧视是指因为宗教信仰、残疾、性取向等直接遭受到的不平等待遇，间接歧视是指表面公平公正的规定、标准、惯例、行为等可能导致间接的实质上不平等待遇。直接歧视是主观意愿所致，而间接歧视则与公司主观意愿无关。表面上看意大利户户送有限责任公司行为具有中立性，其平台系统对所有的骑手都适用而且并不针对任何人，但平台算法参数的设置没有考虑外卖骑手没有赴约的真正原因，对外卖骑手产生一定的消极影响，实质上阻碍了外卖骑手参加工会罢工、疾病等合法权利的行使，减少其未来获得工作的机会，属于间接歧视。

在胡红芳、上海携程商务有限公司案中，事实部分：胡红芳为携程公司的钻石贵宾客户，依照携程公司对外宣传，钻石贵宾客户享有酒店会员价8.5折起等特权。2020年7月18日，胡红芳在携程公司运营的携程旅行APP中预订了当天舟山希尔顿酒店豪华湖景大床房一间，订单金额为2889元，并于当天上午8点42分付款完成。2020年7月18日上午8点53分，酒店对外电话接到自称王先生的人来电，以胡红芳名义直接向酒店预订，房款1377.63元通过微信支付，且注明房价保密。酒店对该订单的记录仅显示店外客人电话预定，未显示其他商业合作渠道，酒店方提供的来源于携程的订单记录里也无该笔订单。2020年7月19日退房时，胡红芳要求酒店开具发票，发现酒店房价为1377.63元。

法院认为：本案是否认定携程公司存在“大数据杀熟”，不影响携程公司存在侵害消费者个人信息行为的认定。原审并未在本案中对携程公司的“大数据杀熟”予以查证并以此认定携程公司构成侵权。案涉《隐私政策》明确载明携程公司可能将对胡红芳的订单数据用于分析，从而形成用户画像。胡红芳作为一名普通消费者在面对携程公司掌控平台内所有数据且事先亦告知要进行数据画像等商业利用的情况下，当得知案涉订单支付了不合理高价时，对携程公司产生“大数据杀熟”的疑虑合乎常理，相关主张有一定的事实基础。且携程公司提交的142笔订单信息显示，同日入住的单价价差最大达到1600多元，同日订单价格高低与是否提前预定不相关，其价格机制不透明。此外，在接受案涉订单的投诉后，携程公司所作的核实处理亦极其不严肃，甚至存在欺骗行为，既说明其内部管理失范，更加重了消费者的不信任。携程公司作为一家在行业内占据优势地位，并在国内享有广泛知名度数据企业，理应负有更高的社会责任和使命，应聚焦为何消费者会认为其存在“大数据杀熟”以及如何改进提升自身的服务以消除消费者疑虑，为更好提升消费者对网络服务平台经营者的信任感而有所担当和作为。

3、信息茧房

信息茧房，是指商业平台等利用算法形成的检索、排序、选择、推送、展示等规则，进行个性化信息推送以刻意迎合用户的主观喜好，导致用户陷入“信息茧房”。信息茧房，是商业平台等完全逐利的非理性数据处理方式，导致用户陷入商业平台等所提供单一信息构造的“信息茧房”中，被现实世界所桎梏和孤立。人民网二评算法推荐：别被算法困在“信息茧房”指出，随着算法日益精密、技术不断提升，智能化的信息分发模式反而把许多人困在“信息的茧房”，失去了探索未知、创造不同可能性的机会。预言与现实的反差，正提醒我们：勇于驶出信息的孤岛，敢于走出知识的一亩三分地，拥抱丰富多彩的世界，才能赢得精彩的未来。《半月谈》指出：网络信息多样、开放、共享，而一味迎合受众的阅读偏好，计算方法简单，定向推送粗暴，让读者尤其是鉴别力、自控力不强的青少年越“好”越“偏”。原本能够提供多样化精神食粮的手机App，却让人有一种“我才夹了一筷子，你就送我一桌子”的惊喜与尴尬，在不知不觉中受困于“信息茧房”。信息茧房经典案例“可可托海的牧羊人”：“可可托海的牧羊人”上了春晚后大家都觉得好听，大多数中老年人都表示在微信朋友圈早就听过，而许多年轻人则表示第一次听，大家用的一样的APP看到的却是不同的世界。

五、我国现有算法法规文件解读

2021年9月，国家互联网信息办公室等九部委印发《关于加强互联网信息服务算法综合治理的指导意见》，该意见提出：以算法安全可信、高质量、创新性发展为导向，建立健全算法安全治理机制，构建完善算法安全监管体系，推进算法自主创新，促进算法健康、有序、繁荣发展，为建设网络强国提供有力支撑。2021年12月31日，我国第一部以算法推荐服务为规制对象的部门规章《互联网信息服务算法推荐管理规定》正式颁布，规定明确了算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等；明确了算法选择权，要求向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。2021年11月，《上海市网络交易平台网络营销活动算法应用指引（试行）》发布，具体规范网络交易平台网络营销活动算法应用行为，为平台经营者划出合规底线。

1、《关于加强互联网信息服务算法综合治理的指导意见》

《指导意见》提出：利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局；加强算法治理规范，优化算法治理结构，强化统筹协同治理，强化企业主体责任，健全算法安全治理机制；有效监测算法安全风险，积极开展算法安全评估，有序推进算法备案工作，构建算法安全监管体系；推进算法分级分类安全管理，有效识别高风险类算法，实施精准治理；促进算法公开透明，合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释；引导算法应用公平公正、透明可释；提高算法自主可控能力，保护算法知识产权，强化自研算法的部署和推广，提升我国算法的核心竞争力；防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为；

2、《互联网信息服务算法推荐管理规定》

（1）构建算法规制体系。《规定》明确国家网信办为算法规制主体，对算法推荐服务提供者实施分级分类的日常管理，开展安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改；建立用户自主选择机制，向用户提供便捷的关闭算法推荐服务的选项，向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能，算法推荐服务提供者接受社会监督并承担相应责任；具有舆论属性或者社会动员能力的算法推荐服务提供者应当履行备案手续。

（2）算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

（3）在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免个性化信息推送导致用户陷入“信息茧房”。

（4）通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。

（5）充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，便利老年人安全使用算法推荐服务。

（6）优化检索、排序、选择、推送、展示等规则的透明度和可解释性，以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等，避免“算法黑箱”。

（7）不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为，避免“大数据杀熟”等算法歧视。

3、《上海市网络交易平台网络营销活动算法应用指引（试行）》

《指引》指出影响算法应用结果公平、公正的因素包括：参数设置是否科学、合理，消费者画像是否公正、客观、真实，决策规则设计是否科学、合理；不应将浏览次数、支付意愿、支付能力、依赖程度、交易频次、交易时使用的终端设备品牌等作为与消费者进行交易的条件参数；确保消费者画像依据来源合法，尊重消费者人格尊严，避免使用有违社会公德、歧视性、偏见性用户标签；不得对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇；利用算法，根据消费者的兴趣爱好、消费习惯等特征向其提供搜索结果的，应当同时向该消费者提供不针对其个人特征的选项；鼓励将保护残疾人、老人、未成年人等弱势群体的利益纳入算法应用的考量因素。

4、《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》

该司法解释首次将算法列入商业秘密保护客体中。算法是一种智力活动的规则和方法,其本身并不能获得专利，但实施算法的技术方案可以获得发明专利。

六、算法及人工智能体的法律地位

最初，算法只是按照人们预定目标起到替代人类的作用。然而，随着算法学习能力的不断增强及承载算法的人工智能体出现，算法及人工智能体不再仅仅是一项技术手段，其开始拥有一定的权力—自动化决策。该权力是源于算法研发者、应用者将算法嵌入到社会政治、经济运行的各个微观层面，嵌入到新生产生活资料引发的经济秩序和社会秩序重构。2017年，《欧盟机器人民事责任法律规则》提出了“非人类的代理人”说，沙特给机器人“索菲亚”授予公民资格，国务院印发的《新一代人工智能发展规划》也提出“明确人工智能法律主体以及相关权利、义务和责任”。以上试图用代理说等规则来解决算法及人工智能体的法律地位问题，但其忽视了算法及人工智能体的内在运行逻辑，忽视了算法权力后日益显现的技术性和资本性，忽视了算法及人工智能体的工具属性。

谷歌中国长期以来一直宣称，其搜索结果是由机器算法自动生成，没有进行人工干预，“谷歌中国”网站负责人承认该网站大量传播淫秽色情和低俗信息，严重违反了国家有关法律法规，严重侵害了青少年身心健康，并就此事向公众道歉。该网站负责人表示，将严格按照政府执法部门的要求进行整改，及时将整改情况报告有关部门。这表明谷歌完全有能力控制搜索算法的结果，而并非其一贯宣称的由算法自动生成。

在深圳市腾讯计算机系统有限公司与上海盈讯科技有限公司案中，法院认为：涉案文章是在原告的主持下，由包含编辑团队、产品团队、技术开发团队在内的主创团队运用Dreamwriter软件完成，并未提及涉案文章还有其他参与创作的主体。涉案文章是由原告主持的多团队、多人分工形成的整体智力创作完成了作品，整体体现原告对于发布股评综述类文章的需求和意图。涉案文章在由原告运营的腾讯网证券频道上发布，文章末尾注明“本文由腾讯机器人Dreamwriter自动撰写”，其中的“腾讯”署名的指向结合其发布平台应理解为原告，说明涉案文章由原告对外承担责任。故在无相反证据的情况下，本院认定涉案文章是原告主持创作的法人作品。

在北京菲林律师事务所诉北京百度网讯科技有限公司案中，法院认为：虽然计算机软件智能生成的文字内容体现了针对相关数据的选择、判断、分析，具有一定的独创性。但是，自然人创作完成仍应是著作权法上作品的必要条件。计算机软件智能生成文字内容的过程有两个环节有自然人作为主体参与，一是软件研发环节，二是软件使用环节，但软件智能生成的文字内容并未传递软件研发者及使用者的思想、感情的独创性表达，故二者不应被认定为软件智能生成的文字内容的作者。人工智能软件利用输入的关键词与算法、规则和模板结合形成的文字内容，某种意义上讲可认定是人工智能软件“创作”了该内容。但即使人工智能软件“创作”的文字内容具有独创性，也不属于著作权法意义上的作品，不能认定人工智能软件是其作者并享有著作权法规定的相关权利。

在吴铭等制作、复制、出版、贩卖、传播淫秽物品牟利罪案中，法院认为：对于吴铭的辩护人所提快播公司只是提供了一种技术模式，法院审判的不应是技术，而应是行为的辩护意见，经查，刑法意义上的危害行为表现为两种形式，即作为与不作为。一方面，快播公司以P2P技术为基础搭建了提供视频信息服务的网络平台。技术虽是快播公司提供服务的基础，但如何使用相关技术，如何设定技术服务规则则是快播公司可自主选择的积极作为方式。快播公司向所有用户免费提供QVOD资源服务器程序及快播播放器程序，在被深圳网监处罚前对上传视频资源的用户及视频内容均不做任何限制，同时，在设置缓存服务器并设计其存储视频条件时仅以点播率为限，造成大量淫秽视频存储于快播缓存服务器中并通过其更快速地在网络上传播。另一方面，P2P技术本身即存在着易被用于传播淫秽视频、盗版作品的风险。快播公司作为一家以P2P技术为依托的网络视频服务企业，不仅应当承担法定的网络安全管理义务，而且应当自觉承担起与其技术特点所造成的法益侵害风险程度相当的更高的注意义务。

七、算法侵权

算法的出现和使用，是为了执行大规模重复的任务和计算。算法自动化决策系统首先对个人数据进行采集、分类和整合，然后挖掘包括个人资料、位置、行动轨迹、历史交易数据、敏感信息等涉及隐私的数据价值，并将上述隐私数据应用于数据转换、分析、处理和输出过程。政府机构、社会团体、商业平台等可能为了高效的行政和交易，在分析处理上述数据时侵害到名誉权、隐私权等人格性权利。

Target公司一直在通过购物者代码、信用卡、调查等方式收集客户数据，然后通过分析所有这些数据，确定其销售的大约25种产品可以一起进行分析计算进而得出“怀孕预测”分数。该项目导致零售商无意中向一个十几岁女孩的家人透露她已经怀孕。

在任甲玉诉北京市百度网讯科技公司侵犯名誉权、姓名权、一般人格权纠纷案中，法院认为：搜索引擎的“相关搜索”功能，是为用户当前搜索的检索词提供特定相关性的检索词推荐，这些相关检索词是根据过去其他用户的搜索习惯和与当前检索词之间的关联度计算而产生的，是随着网民输入检索词的内容和频率变化而实时自动更新变化的。如果百度公司在“相关搜索”服务中存在针对任甲玉相关信息而改变前述算法或规律的人为干预行为，就应当在“相关搜索”的推荐服务中对任甲玉在本案中主张的六个关键词给予相对稳定一致的公开显示，或者至少呈现出一定规律性的显示。但是，无论从任甲玉自述及双方提供的公证书，还是法院当庭现场勘验的情况，均可以看出在百度公司搜索页面的搜索框中输入“任甲玉”这一检索词，在“相关搜索”中都会显示出不同的排序及内容的词条，而且任甲玉主张的六个检索词也呈现出时有时无的动态及不规律的显示状态，这与搜索引擎“相关搜索”功能的一般状态是一致的，并未呈现出人为干预的异常情况，足以印证百度公司所称相关搜索词系由过去一定时期内使用频率较高且与当前搜索词相关联的词条统计而由搜索引擎自动生成，并非由于百度公司人为干预。综上，在任甲玉无相反证据的情况下，法院认定百度公司并未针对任甲玉的个人信息在相关搜索词推荐服务中进行特定的人为干预。由搜索引擎自动生成的相关搜索词是计算机相关算法在收集和处理过程中的一串字符组合，不构成名誉、姓名侵权。

或许您还想看

上下滑动查阅

作者简介

黄  斌

北京德和衡（深圳）律师事务所高级联席合伙人

黄斌律师，北京德和衡律师事务所数字经济与人工智能业务中心副总监，元宇宙科技与法律研究中心主任，深圳律协数字经济专委会副主任，北京德和衡（深圳）律师事务所高级联席合伙人，公司业务部副主任，北大法律信息网签约作者，《互联网法律评论》特约专家，无讼公开课讲师，无讼专栏作者，百度百家号VIP作者，华中科技大学法律硕士，专利代理人。

擅长专业领域为：数字经济、元宇宙、NFT、虚拟人、区块链、虚拟货币、公司法、建设工程、知识产权。

黄斌律师专注于中小股东保护，深度研究数万个判例进行解码，从董事推荐、公司决议、股东退出等多维度完成了公司中小股东保护法律服务产品；在大学从事近十年建设法规教学，从建工合同的签订、入场、施工、变更、退场等多维度保护建工企业及实际施工人的权益；曾从事三年专利代理工作，参与了武烟集团公司知识产权战略规划。2017年完成江西省工商联课题“民企知识产权保护”。

现为中国最大法律人社区无讼阅读“商标有道”专栏作者，在北大法律信息网和无讼阅读平台上发表过《中国好声音：到底是谁的好声音》等100多篇知识产权法文章，《麦当劳中国更名为“金拱门”相关法律问题评析》荣获“无讼”阅读2017年度专业文章第一名，《短视频版权保护的江湖风云》收录在《大数据—北大法律信息网文粹（2018-2019）》一书。

代理案件中江西网络电视台诉暴风科技信息网络传播权侵权案入选江西省高院2017年十大知识产权经典案例、田某某侵犯商业秘密罪案（判三缓五）入选2021年江西省检查机关保护知识产权典型案例。

手机：[phone]

邮箱：[e-mail]

质控人简介

辛小天

合伙人

数字经济与人工智能业务中心总监

[e-mail]

END